Создатель ChatGPT: История Сэма Альтмана - Кич Хэйги

источниках предвзятости, авторы указывали на зависимость GPT–2 и GPT–3 от Reddit и «Википедии». Опрос Исследовательского центра Пью 2016 года показал: американские пользователи Reddit – в основном молодые мужчины 18–29 лет. С «Википедией» похожая история: по недавним опросам, женщины составляют лишь 8,8–15% «википедистов».

Авторы предупреждали и о риске злонамеренного использования LLM. Эволюция приучила нас верить: если слова складываются в понятные предложения, значит, в них есть смысл и достоверная информация. «Злоумышленники» могут эксплуатировать эту особенность, используя LLM для массового производства «внешне связных текстов на заданные темы» – например, для продвижения опасных теорий заговора.

Google заявил, что рецензенты сочли статью слишком «ругательной», и потребовал от авторов отозвать публикацию. Гебру утверждает, что ее уволили; Google настаивает – она ушла сама[313]. Скандал попал в прессу и превратил «стохастического попугая» в самый настоящий мем, а само критическое выражение – в одно из самых цитируемых определений генеративных нейросетей. (Когда OpenAI выпустила ChatGPT год спустя, Альтман не удержался от ехидного твита: «Я стохастический попугай, и ты тоже».)[314] Но, строго говоря, статья проговорила и обосновала те самые страхи, которые за пару лет до этого мучили Амодеи, Брандейджа, Кларка и некоторых других сотрудников OpenAI – из-за них компания и колебалась с публикацией полного кода GPT–2.

Глава 15

ChatGPT

Опасения, что OpenAI выпускает свои модели слишком рано, оказались вовсе не беспочвенными. Вскоре после исхода самых помешанных на безопасности сотрудников OpenAI выяснилось: в текстовой игре AI Dungeon, работавшей на бета-версии GPT–3, пользователи сочиняли истории про секс с детьми. OpenAI потребовала от владельцев AI Dungeon прекратить это безобразие. «В некоторых вопросах модерации контента бывает трудно принять решение, но здесь все однозначно, – заявил Альтман изданию Wired. – Никто из нас не хочет такого будущего для ИИ»[315].

Новая система модерации, которую внедрила AI Dungeon, привела пользователей в ярость. Истории, которые они сочиняли, были их частным делом – с какой стати AI Dungeon вдруг начала за ними следить? Никаких законов, регулирующих содержание текстовых фэнтези-игр, не существовало. К тому же первые попытки починить систему оказались топорными: под раздачу попадали невинные фразы вроде «восьмилетний ноутбук». Пользователи массово отказывались от подписок стоимостью от 10 до 50 долларов в месяц и шли жаловаться в соцсети.

«В OpenAI настаивали на жестком подходе: выявлять пользователей, переступивших черту, проверять их тексты и банить, – рассказал генеральный директор компании Ник Уолтон. – Проблема состояла в том, что иногда подобный контент генерировал сам ИИ».

Иными словами, педофилом оказывался искусственный интеллект. При обучении GPT–3 использовались материалы из интернета – а там обитают самые темные стороны человеческой натуры. Модель явно нуждалась в воспитании.

Но других вариантов просто не было – GPT–3 настолько превосходила конкурентов, что AI Dungeon оставалось только смириться. По крайней мере, пока действовал льготный период для бета-тестеров. Когда же он закончился, выяснилось неприятное: ИИ-движок съедал столько ресурсов, что бизнес становился нерентабельным. И это несмотря на тысячи платных подписчиков. «Для работы AI Dungeon требовался GPU-кластер стоимостью с “Теслу”, – объяснил Уолтон. – Мы выпустили самую прожорливую по вычислительным ресурсам игру в истории. И это был всего лишь текстовый квест». В конце концов пришлось искать другого ИИ-провайдера. «Мы поняли: либо спускаем всю выручку на искусственный интеллект, либо закрываемся», – признался Уолтон[316].

В начале 2021 года OpenAI натренировала GPT–3 генерировать изображения по текстовым описаниям. Модель окрестили DALL-E – каламбур, объединивший робота WALL-E от Disney и Сальвадора Дали. Первой работой нейросети для широкой публики стала «редька в балетной пачке, выгуливающая собаку». Редька получилась корявой и примитивной – рядом с ней даже «Южный парк» смотрелся как полотна Энгра. Но пачка на редьке действительно была, и собаку редька действительно выгуливала.

Эти успехи позволили Альтману еще громче заявить о своей миссии переустройства общества. «Работа в OpenAI каждый день напоминает мне о масштабе социально-экономических перемен, которые наступят гораздо раньше, чем думает большинство, – написал он в мартовском эссе 2021 года под названием «Закон Мура[317] для всего на свете». – Программы, способные думать и учиться, возьмут на себя все больше человеческой работы. Власть неизбежно перетечет от труда к капиталу».

Искусственный интеллект создаст богатство, утверждал Альтман, радикально удешевив подавляющее большинство товаров и услуг. «Стоимость большинства видов труда – а именно труд определяет цены на товары и услуги – рухнет почти до нуля, когда достаточно мощный ИИ “выйдет на работу”, – писал он. – ИИ обрушит цены, потому что трудовые затраты – главная статья расходов на всех уровнях производственной цепочки. Представьте: роботы строят вам дом на вашем участке из местного сырья, которое сами же добыли и переработали, используя только солнечную энергию. Себестоимость такого дома будет равна стоимости аренды роботов. При этом для роботов, которых собрали другие роботы, арендная плата окажется в разы ниже, чем если бы их изготовили люди»[318].

Увы, единственное, что ИИ не сможет удешевить, – это земля. Более того, жилищный кризис, борьба с которым возглавляла список приоритетов Альтмана еще в 2017 году, когда он подумывал баллотироваться в губернаторы, грозил резко обостриться. Выход Альтман теперь видел в идеях Генри Джорджа – журналиста и экономиста XIX века, предлагавшего революционное решение проблемы неравенства: перестать облагать налогом труд и обложить налогом исключительно землю. Его «налог на земельную ренту» исходил из простой предпосылки: стоимость земли в значительной степени зависит от экономической деятельности, которая происходит вокруг этой земли, – дорог, которые проложили другие, компаний, которые открыли другие.

Альтман взял джорджизм – у которого за долгие годы нашлось немало поклонников, от Уинстона Черчилля до Вилли Брауна, – и довел его до логического предела. Он предложил модель, которую можно было бы окрестить «YC-измом»: выдать каждому гражданину крохотную долю в земле и компаниях страны, чтобы достичь мечты венчурного капитализма – «выравнивания стимулов».

С одной стороны, эссе представляло собой типичный манифест венчурного капиталиста – смелые заявления о будущем, которые заодно рекламировали его собственные проекты. С другой – это был впечатляющий синтез многих любимых проектов и увлечений Альтмана: искусственный интеллект, безусловный основной доход, доступное жилье, техноутопизм. Все это сплавилось в цельное мировоззрение. А авторитет Альтмана достиг небывалых высот. Когда он без тени иронии написал «Далее следует описание грядущего и план навигации в новом мире», желающих поверить ему оказалось куда больше, чем раньше[319].

Расставание с YC не уменьшило амбиций Альтмана по построению цивилизации. Его инвестиции все меньше напоминали общую поддержку науки и талантливых основателей – теперь это были четко выверенные шаги к будущему из его манифеста. В 2019 году, словно отвечая на вопрос о механизме распределения безусловного базового дохода, он, не привлекая к этому особого внимания, стал сооснователем компании Tools for Humanity. В 2021-м компания объявила о